ParaVT: Taming the Tool Prior Paradox for Parallel Tool Use in Agentic Video Reinforcement Learning
ParaVT：驯服并行视频工具调用的工具先验悖论
🧭 Agent 多智体协作与工具调用优化 ★ 深度解读
MiroMind · Nanyang Technological University · The University of Hong Kong · Hong Kong University of Science and Technology (Guangzhou) · Tsinghua University
首个并行视频工具调用多智能体RL框架，识别并解决工具先验悖论导致的格式崩溃与工具跳过问题。
📌 工作参考价值（4 点）
- 工具先验悖论处理：当使用预训练已有工具能力的模型做 RL 微调时，会出现格式崩溃（例如标签错误）和跳过工具的捷径。可借鉴 PARA-GRPO 的探索锚定技术：对关键格式标记（如 </think>、</answer>）施加额外奖励，并用约束生成强制开头标记，稳定结构化输出。在电商 Agent 中，若模型需要生成 API 调用格式，可以类似地对调用标签进行强化。
- 并行工具调度设计：从串行工具调用转为并行调度，能避免错误传播、降低上下文膨胀、实现固定延迟。在推荐系统多路召回或 Agent 多工具并行执行场景中，可以设计主代理一次调度多个子系统并行工作，并聚合结果，提高效率和容错。
- nFrames Gating 创造工具必要性：通过随机控制输入的信息量（如减少概览帧），强制模型在部分样本上必须使用工具，避免奖励黑客行为。此法可迁移到检索增强场景：在训练 Agent 判断是否需要检索时，可随机删除部分文档，确保不使用检索的答案得分低，从而强化检索动机。
- 串行轨迹转并行数据构造：将串行工具调用轨迹合并为单轮并行调用，并用文本总结替代原始输出，既对齐训练格式又控制上下文长度。对于电商操作数据（如搜索、点击、加购），可将顺序操作按独立性合并成并行动作轨迹，用于训练多任务 Agent。